Разногласният законопроект за безопасността на изкуствения интелект в Калифорния налага тежко решение за губернатора Гавин Нюсъм

Губернаторът на Калифорния Гавин Нюсъм ще обмисли дали да подпише закон или да наложи несъгласие на противоречив законопроект за изкуствения разсъдък, който предлага налагане на строги регулации върху софтуерните компании, откакто утвърди окончателния му вид затруднение в щатския законодателен орган в четвъртък.

Нюсъм, демократ, има до 30 септември да издаде решението си по законопроекта, който раздели Силиконовата котловина. Това би принудило софтуерните групи и започващите компании, разработващи AI модели в щата, да се придържат към строга рамка за сигурност. Всички най-големи AI започващи компании, в това число OpenAI, Anthropic и Cohere, както и огромни софтуерни компании с AI модели, ще попаднат в неговата подготвеност.

Newsom евентуално ще се сблъска с интензивно лобиране от двете страни. Някои от най-големите софтуерни и AI компании в щата, в това число Гугъл, Meta и OpenAI, показаха угриженост по отношение на законопроекта през последните седмици, до момента в който други, като подкрепената от Amazon Anthropic и Илон Мъск, който е притежател на AI start-up xAI, показаха своята поддръжка.

Законът за безвредни и сигурни нововъведения за гранични системи с изкуствен интелект, прочут като SB 1047, постанова тестване за сигурност за усъвършенствани AI модели, работещи в щата, чието създаване коства повече от 100 милиона $ или които изискват високо равнище на изчислителна мощ. Конгресът на Съединени американски щати към момента не е основал федерална рамка за контролиране на ИИ, което остави опция за Калифорния, център за софтуерни нововъведения, да излезе със свои лични проекти.

Според законопроекта разработчиците биха би трябвало да основат „ комутатор за изключване “, с цел да изключат своите модели, в случай че се объркат, и ще бъдат изправени пред правосъдни дейности от страна на основния прокурор, в случай че не съблюдават условията и техните модели се употребяват за опасност за публичната сигурност.

Те също по този начин ще би трябвало да подсигуряват, че няма да създават модели с „ рискова дарба “, като да вземем за пример основаване на биологични или нуклеарни оръжия или подкрепяне на офанзиви за киберсигурност. Разработчиците ще бъдат принудени да наемат инспектори от трети страни, с цел да оценят техните практики за сигурност и да защитят лицата, подаващи сигнали за евентуални злоупотреби с ИИ.

Неговите съперници, в това число някои софтуерни групи и вложители от Силициевата котловина, настояват, че това ще задуши нововъведенията и ще наложи ИИ компании да изоставен страната.

Главният AI академик на Meta Yann LeCun написа на X през юли, че законопроектът ще бъде нездравословен за изследователските старания за AI, до момента в който OpenAI предизвести, че ще сътвори несигурна правна среда за фирмите за AI и може да накара бизнесмените и инженерите да изоставен Калифорния.

Andreessen Хоровиц и Y Combinator ускориха лобистката акция против предложенията през последните седмици, а Нанси Пелоси, някогашният ръководител на Камарата на представителите на Съединени американски щати от Калифорния, също разгласява изказване в съпротива на законопроекта, като го назова „ доброжелателен, само че зле осведомен “. Противниците също твърдяха, че законопроектът се концентрира върху хипотетични опасности и прибавя „ извънреден “ риск от отговорност на учредителите.

Законопроектът беше променен, с цел да смекчи някои от тези условия през последните седмици, в това число ограничение на гражданските отговорности, които имаше в началото сложени върху разработчиците на AI и свиване на обсега на тези, които ще би трябвало да се придържат към разпоредбите. Критиците обаче настояват, че законопроектът към момента натоварва започващите компании с тежки и от време на време нереалистични условия.

Поддръжниците споделят, че бързо разрастващата се технология се нуждае от ясна регулаторна рамка. Джефри Хинтън, някогашен началник на AI в Гугъл, който поддържа законопроекта, сподели в изказване: „ Мощните AI системи носят необикновено заричане, само че рисковете също са доста действителни и би трябвало да се одобряват извънредно съществено.

„ SB 1047 възприема доста рационален метод, с цел да балансира тези опасения. Все още съм разпален по капацитета на изкуствения разсъдък да избавя животи посредством усъвършенствания в науката и медицината, само че е извънредно значимо да имаме законодателство с същински зъби, с цел да се оправим с рисковете. “

Сенаторът от щата Калифорния Скот Винер, демократ който показа законопроекта по-рано тази година, сподели след приемането му в Сената на щата: „ Иновациите и сигурността могат да вървят ръка за ръка – и Калифорния е водеща. Законодателната власт предприе в действителност историческата стъпка да работи самодейно, с цел да подсигурява, че една вълнуваща нова технология пази публичния интерес, до момента в който напредва. “